Cha của Ngao Bái là Vệ Tề (衛齊), người em trai thứ 9 của công thần khai quốc của Hậu Kim là Tín Dũng Trực Nghĩa công Phí Anh Đông, xuất thân từ gia tộc Qua Nhĩ Giai thị thuộc Mãn Châu Tương Hoàng kỳ. Ngao Bái được phong là Mãn Châu Đệ nhất dũng sĩ (Ba Đồ Lỗ) dưới thời Thanh Thái Tông Hoàng Thái Cực.

Từ thuở còn trẻ, Ngao Bái nổi tiếng vì sức khỏe phi thường, tinh thông cưỡi ngựa bắn cung, cùng với sự dũng cảm thiện chiến tàn bạo mà ông đã lập không ít công lao cho nhà Thanh. Dưới thời Thanh Thái Tông, ông giữ chức vụ Phó Đô Thống Chính Lam kỳ, là cánh tay phải của Túc Vũ Thân vương Hào Cách. Từng nam chinh bắc phạt. Nổi tiếng nhất là trận chiến Tùng Cẩm bắt sống Hồng Thừa Trù và chiêu hàng Tổ Đại Thọ. Ngoài ra, Ngao Bái đối đãi với Hoàng Thái Cực vô cùng trung thành. Năm Hoàng Thái Cực băng hà, Đa Nhĩ Cổn lao vào cuộc tranh giành đế vị với Hào Cách – con trưởng của Hoàng Thái Cực. Ngao Bái đã quỳ gối trước linh vị của Hoàng Thái Cực thề sống chết bảo vệ Hào Cách, thậm chí dùng kiếm uy hiếp Đa Nhĩ Cổn khiến Đa Nhĩ Cổn không thể không thoái nhượng. Đến thời Thuận Trị Đế, ông giữ chức vụ Cửu môn Đề đốc kinh thành kiêm Kỳ chủ Chính Hồng Kỳ.

Sau đó, Giản Thân vương Tế Độ làm phản bị bắt và phụ thân của Tế Độ là Trịnh Thân vương Tế Nhĩ Cáp Lãng vì bị liên lụy nên ông này đành rút lui khỏi vị trí đứng đầu Nghị Chính, Thuận Trị Đế giao cho chức vụ đứng đầu Nghị Chính cho Ngao Bái.